Các động vật dạng hải ly sớm nhất thuộc về chi Agnotocastor, với các hóa thạch có từ cuối thế Eocen và Oligocen ở Bắc Mỹ và châu Á [2]. Các dạng hải ly sớm khác còn có các chi như Steneofiber, với các hóa thạch có từ các thế Oligocen và Miocen ở châu Âu, thành viên sớm nhất của phân họ Castorinae, là phân họ chứa các động vật dạng hải ly có quan hệ họ hàng gần gũi nhất với các loài hải ly còn sinh tồn [3]. Các răng của chúng chưa phù hợp tốt với việc gặm nhấm gỗ, cho thấy thói quen này đã tiến hóa ở thời điểm muộn hơn, nhưng chúng dường như đã thích nghi với cuộc sống bán thủy sinh[4]. Muộn hơn thì các loài ban đầu này đã tiến hóa thành các dạng như Palaeocastor trong thế Miocen ở Nebraska. Palaeocastor có kích thước cỡ như chuột xạ và đào các hang hốc hình xoắn ốc sâu tới 2,5 m (8 ft).

Các dạng to lớn hơn đã tiến hóa trong thế Pleistocen, bao gồm Trogontherium ở châu Âu, Castoroides ở Bắc Mỹ. Nhóm động vật thứ hai này to lớn như gấu đen, nhưng bộ não của chúng chỉ lớn hơn một chút so với hải ly ngày nay. Hình dáng của chúng cho thấy chúng là những động vật bơi lội giỏi, và có lẽ chúng đã sinh sống trong các môi trường đầm lầy [5].